最近自我监督学习成功的核心组成部分是裁剪数据增强，其选择要在自我监督损失中用作正视图的图像的子区域。底层假设是给定图像的随机裁剪和调整大小的区域与感兴趣对象的信息共享信息，其中学习的表示将捕获。这种假设在诸如想象网的数据集中大多满足，其中存在大，以中心为中心的对象，这很可能存在于完整图像的随机作物中。然而，在诸如OpenImages或Coco的其他数据集中，其更像是真实世界未保健数据的代表，通常存在图像中的多个小对象。在这项工作中，我们表明，基于通常随机裁剪的自我监督学习在此类数据集中表现不佳。我们提出用从对象提案算法获得的作物取代一种或两种随机作物。这鼓励模型学习对象和场景级别语义表示。使用这种方法，我们调用对象感知裁剪，导致对分类和对象检测基准的场景裁剪的显着改进。例如，在OpenImages上，我们的方法可以使用基于Moco-V2的预训练来实现8.8％的提高8.8％地图。我们还显示了对Coco和Pascal-Voc对象检测和分割任务的显着改善，通过最先进的自我监督的学习方法。我们的方法是高效，简单且通用的，可用于最现有的对比和非对比的自我监督的学习框架。
translated by 谷歌翻译
最近在时间序列域中的合成数据生成的工作集中在使用生成的对抗网络。我们提出了一种用于综合生成时间序列数据的新型架构，使用变分自动编码器（VAES）。拟议的架构具有多种不同的特性：可解释性，编码域知识的能力，以及减少培训时间。我们通过对四个多变量数据集的相似性和可预测性评估数据生成质量。我们试验不同尺寸的培训数据，以测量数据可用性对我们VAE方法的产生质量的影响以及几种最先进的数据生成方法。我们对相似性测试的结果表明，VAE方法能够准确地代表原始数据的时间属性。在使用生成数据的下一步预测任务上，所提出的VAE架构一致地满足或超过最先进的数据生成方法的性能。虽然降噪可能导致所生成的数据偏离原始数据，但是我们演示了所产生的去噪数据可以使用生成的数据显着提高下一步预测的性能。最后，所提出的架构可以包含域特定的时间模式，例如多项式趋势和季节性，以提供可解释的输出。这种解释性在需要模型输出的透明度的应用中可以是非常有利的，或者用户希望将时间序列模式的先验知识注入到生成模型中。
translated by 谷歌翻译